استاندارد ISO/IEC 42001

هوش مصنوعی بسیاری از صنایع را متحول کرده است، اما رشد سریع آن نگرانی هایی در زمینه های اخلاقی، حریم خصوصی و امنیتی را نیز به همراه داشته است. برای پرداختن به این چالش ها، سازمان بین المللی استانداردسازی (ISO) و کمیسیون بین المللی الکتروتکنیک (IEC) استاندارد جدیدی به نام ISO/IEC 42001 تدوین کرده اند. این استاندارد، راهنمایی هایی را برای سازمان هایی که سیستم های هوش مصنوعی را طراحی، توسعه و مستقر می کنند، در مورد عواملی مانند شفافیت، پاسخگویی، شناسایی و کاهش سوگیری، ایمنی و حریم خصوصی ارائه میدهد.

ایزو 42001 چیست؟

استاندارد 42001 مسائلی را در سراسر چرخه عمر سیستم هوش مصنوعی، از مرحله مفهوم اولیه تا استقرار و بهره برداری نهایی سیستم، پوشش میدهد. این استاندارد به گونه ای طراحی شده که به سازمان ها در مدیریت خطرات مرتبط با هوش مصنوعی کمک کند و اطمینان حاصل کند که سیستم های هوش مصنوعی آنها به طور مسئولانه توسعه یافته و مورد استفاده قرار می گیرند. این مضامین کلیدی ممکن است هنگام شناسایی نقاط مشترک بین ایزو 27001 و ایزو 42001 آشنا به نظر برسند. ISO 42001 رویکردی سیستماتیک برای شناسایی، ارزیابی و رسیدگی به ریسک های مرتبط با هوش مصنوعی در اختیار سازمانها قرار میدهد که میتواند به آنها کمک کند تا ریسک های هوش مصنوعی را کاهش داده و خود را از آسیب های احتمالی محافظت کنند.

استاندارد ISO/IEC 42001 یک استاندارد سیستم مدیریت (MSS) است، اجرای این استاندارد به معنای ایجاد سیاست ها و رویه هایی برای مدیریت صحیح یک سازمان در رابطه با هوش مصنوعی، با استفاده از روش شناسی Plan-Do-Check-Act است. این استاندارد به جای بررسی جزئیات برنامه های خاص هوش مصنوعی، روشی عملی برای مدیریت ریسک ها و فرصت های مرتبط با هوش مصنوعی در سراسر یک سازمان ارائه می دهد؛ بنابراین، برای هر کسب و کار یا نهادی ارزش ایجاد می کند. استاندارد ایزو 42001 به گونه ای طراحی شده که برای همه سیستم های هوش مصنوعی قابل اعمال باشد.

ساختار استاندارد ایزو 42001

برخی از الزامات کلیدی پوشش داده شده در استاندارد مدیریت هوش مصنوعی عبارتند از:

• رهبری: مدیریت ارشد باید رهبری و تعهد خود را نسبت به سیستم مدیریت هوش مصنوعی (AIMS) نشان دهد و سیاست ها و اهدافی را تعیین کند که با جهت گیری استراتژیک سازمان سازگار باشند.

• برنامه ریزی: شناسایی و ارزیابی خطرات و فرصت های مرتبط با هوش مصنوعی و تدوین برنامه ای برای رسیدگی به آنها.

• پشتیبانی: تأمین منابع و پشتیبانی برای AIMS، از جمله آموزش، آگاهی رسانی و ارتباطات.

• عملیات: ایجاد فرآیندها و رویه هایی برای توسعه، استقرار و نگهداری سیستم های هوش مصنوعی.

• ارزیابی عملکرد: نظارت، اندازه گیری، تجزیه و تحلیل و ارزیابی عملکرد سیستم های هوش مصنوعی و انجام اقدامات اصلاحی در صورت لزوم.

• بهبود مستمر: بهبود مستمر AIMS و اطمینان از مرتبط و مؤثر ماندن آن.

همانند چندین استاندارد دیگر ایزو 42001 دارای چندین پیوست است که بخش عمده ای از راهنمایی های دقیق مورد نیاز سازمانها را ارائه میدهد، در اینجا خلاصه ای از این پیوست ها آمده است:

پیوست الف: راهنمای مدیریت برای توسعه سیستم هوش مصنوعی، شامل فهرستی از کنترل ها.

پیوست ب: راهنمای پیاده سازی برای کنترلهای هوش مصنوعی ذکر شده در پیوست الف، شامل فرآیندهای مدیریت داده.

پیوست ج: اهداف سازمانی مرتبط با هوش مصنوعی و منابع ریسک.

پیوست د: استانداردهای خاص حوزه و بخش.

سایر استانداردهای ایزو مرتبط با هوش مصنوعی

سازمان بین المللی استاندارد سازی، تعدادی گواهینامه ایزو دارد که به کاهش خطرات و به حداکثر رساندن مزایای هوش مصنوعی کمک میکنند:

✔ ISO/IEC 22989، که اصطلاحات مربوط به هوش مصنوعی را تعیین کرده و مفاهیمی را در زمینه هوش مصنوعی شرح میدهد.

✔ ISO/IEC 23053، که یک چارچوب هوش مصنوعی و یادگیری ماشین (ML) را برای توصیف یک سیستم هوش مصنوعی عمومی با استفاده از فناوری یادگیری ماشین ایجاد می کند.

✔ ISO/IEC 23894، که راهنمایی هایی در مورد مدیریت ریسک مرتبط با هوش مصنوعی برای سازمانها ارائه میدهد.

سازگاری ISO/IEC 42001 با سایر استانداردها

استاندارد 42001 با چارچوب های امنیتی و انطباق موجود سایر استانداردها، از جمله موارد زیر، ادغام می شود:

• استاندارد 27001: مدیریت امنیت اطلاعات

• ایزو 27701: مدیریت اطلاعات حریم خصوصی

• ایزو 21434: امنیت سایبری برای هوش مصنوعی در خودرو

استانداردهای پشتیبانی اضافی عبارتند از:

• استاندارد 5259: کیفیت داده ها برای یادگیری ماشین

• استاندارد ایزو 31000: چارچوب مدیریت ریسک عمومی

• ISO/IEC TR 24027: ارزیابی و کاهش سوگیری

• ISO/IEC TR 24368: ملاحظات اخلاقی و اجتماعی

این سازگاری، سازمانها را قادر می سازد تا استراتژی های انطباق هوش مصنوعی را بر فراز ساختارهای حاکمیتی موجود ایجاد کنند.

آیا دریافت گواهینامه ایزو 42001 اجباری است؟

اگر سازمان شما در حال تولید، توسعه یا استفاده از هوش مصنوعی است، ممکن است از خود بپرسید که تا چه حد باید برای اخذ گواهینامه ایزو 42001 تلاش کنید. به طور خلاصه، این چارچوب یک استاندارد داوطلبانه است و از نظر قانونی الزام آور نیست، با این حال با توجه به اهمیت و شناخت نوظهور آن، به احتمال زیاد در آینده به معیاری برای سیستم های مدیریت هوش مصنوعی تبدیل خواهد شد. سازمان ها باید تحولات نظارتی احتمالی را پیش بینی کرده و به طور فعال پذیرش این چارچوب را در نظر بگیرند. با گسترش مقررات جهانی هوش مصنوعی، اجرای ISO/IEC 42001 گامی پیشگیرانه در جهت انطباق با مقررات و کاهش ریسک است، شرکت هایی که امروزه شیوه های مسئولانه هوش مصنوعی را در اولویت قرار میدهند، از مزیت رقابتی برخوردار شده، اعتماد را تقویت کرده و برای الزامات قانونی آینده آماده می شوند. سازمان های کوچک و بزرگ دولتی و خصوصی از هر صنف و صنعتی، که به هر شکلی در استفاده از محصولات یا خدمات مبتنی بر هوش مصنوعی مشارکت دارند می توانند استاندارد 42001 را در فرایندهای خود بکار گیرند.

الزامات کلیدی استاندارد مدیریت هوش مصنوعی

ISO/IEC 42001 یک چارچوب جامع هوش مصنوعی را معرفی میکند که برای سازمان هایی که در حال استفاده از سیستم های هوش مصنوعی هستند، مناسب است. الزامات کلیدی عبارتند از:

• ایجاد یک سیستم مدیریت هوش مصنوعی (AIMS)

یک چارچوب ساختاریافته برای مدیریت پروژه های هوش مصنوعی، مدل ها و شیوه های مدیریت داده.

• مدیریت ریسک هوش مصنوعی

شناسایی، ارزیابی و کاهش خطرات مرتبط با هوش مصنوعی، از جمله تعصب، پاسخگویی و حفاظت از داده‌ها.

• اصول اخلاقی هوش مصنوعی

تشویق شفافیت، انصاف و پاسخگویی در توسعه و استقرار هوش مصنوعی.

• نظارت و بهبود مستمر

فرآیندی برای بررسی عملکرد هوش مصنوعی و اصلاح استراتژی های مدیریت هوش مصنوعی.

• مشارکت ذینفعان

ترویج هوش مصنوعی مسئولانه با مشارکت تیم های انطباق، توسعه دهندگان هوش مصنوعی و متخصصان مدیریت ریسک در فرآیندهای تصمیم گیری.

این الزامات، ایزو 42001 را به یک گواهینامه هوش مصنوعی ضروری برای شرکتهایی تبدیل می کند که متعهد به ایجاد اعتماد در سیستم های هوش مصنوعی هستند.

مزایای اجرای استاندارد 42001

اگرچه در حال حاضر تعداد کمی از سازمانها از سیستم مدیریت هوش مصنوعی استقبال میکنند، اما دلایل خوبی برای اقدام زودهنگام برای اخذ گواهینامه ایزو 42001 وجود دارد. اجرای این استاندارد سازمان را قادر میسازد تا وضعیت خود را به عنوان اولین پذیرنده نشان داده و تعهد خود را به استفاده مسئولانه از هوش مصنوعی نشان دهند، این امر میتواند اعتماد ذینفعان را افزایش داده و سازمان را از رقبا متمایز کند. این استاندارد بین المللی به شما کمک می کند تا یک سیستم مدیریت هوش مصنوعی را در سازمان خود ایجاد، پیاده سازی، نگهداری و به طور مداوم بهبود بخشید، این چارچوب همچنین به شما کمک میکند تا کیفیت، امنیت، قابلیت ردیابی، شفافیت و قابلیت اطمینان برنامه های هوش مصنوعی خود را بهبود بخشید. سایر مزایای استاندارد ایزو 42001 عبارتند از:

✔ آمادگی نظارتی: کسب وکارها را با قانون هوش مصنوعی اتحادیه اروپا و سایر چارچوب های جهانی همسو می کند.

✔ امنیت هوش مصنوعی پیشرفته: محافظت در برابر تهدیدات و سوءاستفاده های سایبری را تقویت میکند.

✔ تمایز رقابتی: رهبری در هوش مصنوعی اخلاقی را نشان میدهد و اعتماد به راه حل های مبتنی بر هوش مصنوعی را تقویت میکند.

فرآیند صدور گواهینامه ایزو 42001

دستیابی به گواهینامه ایزو 42001 شامل چندین مرحله ممیزی است و مراحل صدور آن به شرح زیر می باشد:

1- تعریف دامنه : شناسایی سیستم ها، خدمات، سایت ها و زمینه های قانونی مرتبط با هوش مصنوعی.

2- ارزیابی ریسک : ارزیابی ریسک های فنی، اخلاقی و قانونی و تعریف کنترل های کاهش ریسک.

3- بررسی مستندات : ارزیابی کنترل های داخلی و همسویی با ایزو 42001.

4- ممیزی عملیاتی : تأیید پیاده سازی، نقش ذینفعان و اثربخشی سیستم.

5- اقدامات پس از ممیزی ایزو : اعمال و تأیید اقدامات اصلاحی در صورت نیاز.

6- صدور گواهینامه : گواهینامه ایزو 42001 به مدت سه سال اعتبار دارد، با نظارت سالانه و صدور گواهینامه مجدد در سال سوم.